Sau năm 1975, Hoàng Văn Thái vẫn tiếp tục giữ vai trò Thứ trưởng Bộ Quốc phòng, kiêm Phó Tổng Tham mưu trưởng Thứ nhất, Ủy viên thường vụ Đảng ủy Quân sự Trung ương, Ủy viên Ban Chấp hành Trung ương Đảng Cộng sản Việt Nam. Ông cũng được đề bạt trờ thành thành viên Bộ chính trị, nhưng ông từ chối để tập trung vào hoạt động nghiên cứu lịch sử quân sự.

Năm 1980, ông được phong hàm Đại tướng, được phân công công tác chỉ đạo tổng kết chiến tranh, chỉ đạo công tác nhà trường quân đội và công tác tổ chức cán bộ. Giai đoạn này ông đã tập trung nghiên cứu và hoàn thành nhiều tác phẩm tài liệu có giá trị về quá trình xây dựng và phát triển của Quân đội Nhân dân Việt Nam.